希望增加本地ai知识库问答系统 图片
现在也有小型AI大模型,其体积之小已能在手机上运行。
然而,当前的手机AI均需依赖服务器方能实现功能,且对本地文件的支持尚不够友好,用户需上传文件,系统无法自动识别本机存储的所有文档。
如果能够开发一个手机本地的RAG(Retrieval Augmented Generation,检索增强生成)模型,其推理能力不必过于强大,主要依赖于本地文件构建知识库,那么这将实现一个在电脑中运行的本地大模型所具备的效果。
模型可以设定两个选项,一个是小型版本,其大小可能为几百兆,主要特点是运行流畅;另一个则是较大版本,主要特点是能够充分发挥手机性能。当然,最理想的情况是用户能够同时下载这两个版本,但在使用时系统会提示用户选择使用哪一种。
最好是能够识别手机中的多种文件类型,不仅限于文档,还应包括图片等。
如果条件允许,可以开发一款电脑软件,该软件仅作为手机的额外计算设备使用,负责调用电脑的计算资源来处理手机需要整理计算的数据,并将处理后的数据返回给手机。
当一个福利图片,与内容无关
然而,当前的手机AI均需依赖服务器方能实现功能,且对本地文件的支持尚不够友好,用户需上传文件,系统无法自动识别本机存储的所有文档。
如果能够开发一个手机本地的RAG(Retrieval Augmented Generation,检索增强生成)模型,其推理能力不必过于强大,主要依赖于本地文件构建知识库,那么这将实现一个在电脑中运行的本地大模型所具备的效果。
模型可以设定两个选项,一个是小型版本,其大小可能为几百兆,主要特点是运行流畅;另一个则是较大版本,主要特点是能够充分发挥手机性能。当然,最理想的情况是用户能够同时下载这两个版本,但在使用时系统会提示用户选择使用哪一种。
最好是能够识别手机中的多种文件类型,不仅限于文档,还应包括图片等。
如果条件允许,可以开发一款电脑软件,该软件仅作为手机的额外计算设备使用,负责调用电脑的计算资源来处理手机需要整理计算的数据,并将处理后的数据返回给手机。
当一个福利图片,与内容无关







